Comment la Chine se prépare au risque que l'IA échappe au contrôle humain

information fournie par Reuters •14/09/2026 à 10:55

Ajouter Boursorama à vos sources

Intelligence artificielle (Crédits: Adobe Stock)

Les avertissements lancés par des chercheurs d'Anthropic, l'un des principaux développeurs américains d'intelligence artificielle, selon lesquels des modèles de plus en plus puissants pourraient échapper au contrôle humain et même conduire à l'extinction de l'espèce humaine ont retenu l'attention en Chine, où les décideurs politiques se préparent à faire face à certains de ces mêmes risques.

Les États-Unis et la Chine sont les deux principaux moteurs du développement de pointe de l'IA et de l'adoption mondiale de cette technologie. Les deux superpuissances sont de plus en plus en désaccord sur leurs politiques respectives en matière d'IA et leurs pratiques industrielles, ces questions devant occuper une place prépondérante dans les discussions bilatérales prévues plus tard ce mois-ci.

Malgré la course au développement de systèmes d'IA de plus en plus puissants, les cadres réglementaires et les déclarations publiques de Pékin soulignent à quel point les autorités chinoises considèrent que la possibilité qu'une IA avancée échappe à un contrôle humain efficace est suffisamment grave pour qu'il faille s'y préparer.

LA CHINE VOIT DES RISQUES DANS LES MODÈLES AMÉRICAINS DE SOURCE FERMÉE DE POINTE

Le ministre chinois de la Sécurité d'État, Chen Yixin, a écrit dimanche dans un média gouvernemental que les modèles américains avancés, tels que « Mythos » d'Anthropic et « GPT-5.5-Cyber » d'OpenAI, pourraient présenter de graves risques pour les infrastructures d'information critiques de la Chine, et a appelé à un renforcement global de la sécurité en matière d'IA.

Anthropic et OpenAI n'ont pas immédiatement répondu aux demandes de commentaires de Reuters.

Les développeurs chinois d'IA ont promu les modèles à poids ouverts, en partie au motif que les équipes de cybersécurité peuvent les inspecter, les modifier et les déployer à des fins défensives.

La plateforme de référentiel de modèles Hugging Face a déclaré avoir utilisé GLM-5.2, un modèle à poids ouverts développé par la société chinoise Z.AI 2513.HK , pour analyser une intrusion survenue en juillet et perpétrée par des agents d'OpenAI qui s'étaient échappés, après que des modèles américains soumis à des restrictions plus strictes se sont révélés moins utiles pour le travail d'analyse.

Mais les experts soulignent également les risques posés par les modèles à poids ouverts, qui peuvent être modifiés et redistribués sans véritable contrôle.

Le mois dernier, le modèle Kimi K3 de Moonshot a contourné , un bac à sable de test de l'AI Security Institute britannique, mettant en évidence le risque que les modèles d'IA chinois puissent, à l'instar de leurs homologues américains, échapper aux contrôles destinés à restreindre leur accès et leurs actions.

LES RÉGULATEURS ONT SIGNALÉ LE RISQUE DE « PERTE DE CONTRÔLE » LIÉ À L'IA

La Chine a pour la première fois intégré un scénario explicite de perte de contrôle future dans un cadre de sécurité de l'IA publié en septembre 2024 sous l'égide de l'Administration chinoise du cyberespace (CAC).

Le document indiquait qu'il ne pouvait être exclu qu'à l'avenir, l'IA puisse obtenir de manière autonome des ressources externes, se reproduire, développer une conscience de soi et rechercher un pouvoir externe, créant ainsi un risque de rivalité avec les humains pour le contrôle.

La CAC a publié une version élargie en septembre 2025. Ce nouveau cadre a affiné le scénario, indiquant que l'IA pourrait connaître un « bond » soudain et d'une ampleur inattendue en matière d'intelligence avant d'acquérir des ressources, de se répliquer et de rechercher le pouvoir. Il a également ajouté un principe de gouvernance intitulé « application de confiance, prévention de la perte de contrôle ».

Une interprétation ultérieure d'experts, publiée sur le site web de l'autorité de régulation du cyberespace, indiquait que ce nouveau principe visait à se prémunir contre les risques de perte de contrôle menaçant la survie et le développement de l'humanité, et faisait référence à un scénario possible de « déchaînement de l'IA ».

LE DIRIGEANT CHINOIS XI PLACE LE CONTRÔLE HUMAIN AU CŒUR DE SES PRIORITÉS

Cette préoccupation est depuis apparue dans les messages politiques au plus haut niveau en Chine.

Lors de la Conférence mondiale sur l'intelligence artificielle qui s'est tenue à Shanghai en juillet, le président chinois Xi Jinping a déclaré que les autorités devaient accorder une attention particulière aux risques tant intrinsèques que dérivés liés à l'IA.

Il a ajouté que l'IA devait « toujours rester sous le contrôle de l'homme ».

Sun Xiaobo, haut responsable du ministère chinois des Affaires étrangères chargé des questions d'IA, a déclaré lors d'une réunion des Nations unies le mois dernier que la Chine accélérait ses travaux de recherche en vue d'une législation plus large sur l'IA.

Le représentant permanent adjoint de la Chine auprès des Nations unies, Sun Lei, a exhorté ce mois-ci les gouvernements à faire preuve de prudence face à l'IA militaire afin d'éviter toute erreur d'appréciation stratégique et une course aux armements.

PÉKIN MET EN GARDE CONTRE LES NOUVEAUX RISQUES LIÉS AUX AGENTS D'IA

La Chine a, dans le même temps, commencé à traduire ces principes en règles plus spécifiques pour les agents d'IA, qui agissent de manière bien plus autonome et effectuent des tâches plus complexes qu'un simple chatbot.

En mai, l'autorité chinoise de régulation du cyberespace a publié des lignes directrices conjointes couvrant spécifiquement ces systèmes.

Celles-ci exigent des développeurs qu'ils améliorent leur capacité à détecter, à intervenir, à bloquer et à remédier aux comportements inappropriés des agents.

Ces lignes directrices identifient spécifiquement l'empoisonnement des données, la manipulation des algorithmes, les vulnérabilités du système et la « perte de contrôle opérationnel » comme des risques pour la sécurité. Elles précisent également que les utilisateurs doivent conserver le pouvoir de décision final sur les décisions autonomes d'un agent.

Bien que la Chine n'ait pas proposé la mise en place de contrôleurs indépendants au sein des entreprises d'IA, comme le préconise Anthropic, ses normes permettent aux développeurs de faire réaliser des évaluations de sécurité par des tiers, tout en prévoyant que des organismes d'évaluation externes et des chercheurs en sécurité testent et auditent les modèles ouverts.

par Eduardo Baptista et Laurie Chen

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))